Sejarah kuil bermula seawal antara 1870 dan 1880 pada abad ke-19. Oleh kerana hubungan antara orang Cina tempatan sangat mesra dengan kerajaan beraja Johor, Sultan Abu Bakar menggalakkan orang Cina membina tempat ibadat dan untuk pengebumian dengan menyediakan tanah kepada mereka. Kuil itu kemudiannya diasaskan oleh Ketua Syarikat Ngee Heng yang diketuai oleh Tan Hiok Nee . [2][3] Pada tahun 1981, kuil tersebut telah dicadangkan untuk menjalani pengubahsuaian dengan permintaan telah diterima pada tahun 1994 dengan jumlah perbelanjaan sebanyak RM 1.5 juta. [4] Kuil yang telah diubah suai itu kemudiannya siap pada tahun berikutnya pada Disember 1995 dengan kebanyakan reka bentuk budayanya sedang dipelihara dan tinggalan penting seperti loceng gangsa berusia 1 abad, pembakar kemenyan dan tablet kayu kekal. [5]